Amazon Bedrock
https://gyazo.com/303610502496f3ffd3ba4c2809bd0eff
AWS上のGenerative AIのプラットフォームサービス
複数のLLMにアクセスできる統一インターフェイスを提供するサービス
website
#wip
InvokeModel API (bedrock)
各モデル固有の形式（Anthropic 形式など）
Converse API (bedrock)
AWS 統一形式（cachePoint を使用）
/mrsekut-book-4815626448/034
東京リージョンも使えるが制限がある
クロスリージョン推論
https://dev.classmethod.jp/articles/amazon-bedrock-cross-region-inference-apac/
pricing
/mrsekut-book-4815626448/035 (2.1.3 Bedrockのモデル利用料金)
https://aws.amazon.com/jp/bedrock/pricing/
オンデマンド
従量課金
基本こちらを使う
プロビジョンドスループット
モデルユニットという単位を事前購入する
大規模なワークロード用
比較的高額、契約期間を長くするほど割安になる
BedrockのKnowledge Base
2通りの使い方
Playground上
/mrsekut-book-4815626448/081 (2.11 Bedrockを実際に試してみよう)
AWS SDKを使う
/mrsekut-book-4815626448/088
API
bedrock
bedrock-runtime
bedrock-agent
bedrock-agent-runtime
https://www.youtube.com/watch?v=b8uReUdJBfM
https://aws.amazon.com/jp/blogs/machine-learning/announcing-new-tools-for-building-with-generative-ai-on-aws/
https://gyazo.com/ac3add9910b20bdd73ca93fea7a34684
https://qiita.com/nasuvitz/items/679674d93219cfb8320d
カスタマイズ性が高く、AWSサービスとの親和性が高いらしい
https://zenn.dev/herp_inc/articles/dfd6d561fa9f08